Do tác động của vụ ám sát Bazin, nhiều cán bộ và cơ sở của Việt Nam Quốc dân Đảng bị chính quyền thực dân bắt bớ, truy lùng. Các lãnh tụ Đảng buộc phải tiến hành cuộc khởi nghĩa sớm để tránh cho các cơ sở đang gặp nguy cơ bị tiêu diệt hoặc tan rã. Tháng 5 năm 1929, tại Hội nghị Đức Hiệp, ông được bổ sung vào Trung ương. Tại Hội nghị Mỹ Xá bàn việc tổng khởi nghĩa, ông được giao công tác cùng 2 đồng chí Nguyễn Văn Chấn và Phạm Văn Tình, phát động các trận tấn công Kiến An và Hải Phòng.

Ngày 10 tháng 2 năm 1930, khởi nghĩa nổ ra tại nhiều nơi ở miền Bắc Việt Nam như Yên Bái, Lâm Thao, Hưng Hóa, Hà Nội, Đáp Cầu, Phả Lại, Kiến An, Phụ Dực, Vĩnh Bảo, Thái Bình v.v. Tuy nhiên, do tin tức bị lộ nên cuộc tổng khởi nghĩa chỉ xảy ở Yên Bái, Hưng Hóa, Lâm Thao, Phụ Dực, Vĩnh Bảo. Mặt khác, vì do thiếu vũ khí và phương tiện liên lạc yếu kém, nên lực lượng khởi nghĩa không cố thủ được lâu dài ở các nơi họ đã đánh chiếm. Ngày 20 tháng 2 năm 1930, lãnh tụ Nguyễn Thái Học bị bắt tại làng Cổ Vịt, gần đồn Chi Ngại, tỉnh Hải Dương; đến ngày 17 tháng 6 năm 1930, thì bị tử hình cùng 12 đồng chí khác tại pháp trường Yên Bái.

Khởi nghĩa thất bại, nhiều yếu nhân của Đảng bị bắt. Riêng ông trốn thoát được, đến ngày 20 tháng 6 năm 1930, thì vượt biên giới trốn sang Côn Minh, đổi tên là Vũ Hồng Khanh. Ông bắt liên lạc với các đồng chí ở hải ngoại hoạt động trong Vân Nam Đệ nhất Đạo bộ và được bầu làm Đạo bộ trưởng thay cho Nguyễn Thế Nghiệp, lúc đấy đang lẩn trốn sự lùng bắt tại Mông Tự. Ông cùng với các đồng chí trong Đạo bộ tích cực móc nối với các đồng chí trốn thoát từ trong nước sang, tiếp tục vận động trong giới kiều bào, mở rộng tổ chức, nhanh chóng trở thành một trong những nhóm hoạt động mạnh nhất của Đảng ở hải ngoại.

Được sự hỗ trợ và khuyến khích của Trung Quốc Quốc Dân Đảng, từ 15 đến 24 tháng 7 năm 1932, tại Nam Kinh, các nhóm hải ngoại đã họp hội nghị hợp nhất, thành lập một tổ chức chung mang tên Việt Nam Quốc dân Đảng Hải ngoại Biện sự xứ (Bureau d’Outre – Mer du Việt Nam Quốc dân Đảng), còn gọi là Hải ngoại bộ. Ông được cử làm Ủy viên Hải ngoại bộ.

Năm 1942 tại Liễu Châu (Trung Quốc), ông cùng với Nghiêm Kế Tổ đại diện cho Việt Nam Quốc dân đảng, Nguyễn Tường Tam (Đại Việt Dân chính đảng), Nguyễn Hải Thần thành lập Việt Nam Cách mệnh Đồng minh Hội, thường được gọi tắt là Việt Cách. Tháng 5 năm 1945, tại Trùng Khánh (Trung Quốc), Việt Nam Quốc dân Đảng liên minh với Đại Việt Quốc dân đảng (lãnh tụ Trương Tử Anh) và Đại Việt Dân Chính đảng (lãnh tụ Nguyễn Tường Tam) thành một tổ chức mới, ở trong nước thì lấy tên là Đại Việt Quốc dân đảng, còn ở Trung Quốc thì lấy tên là Quốc dân Đảng Việt Nam, tránh dùng danh xưng Đại Việt vì lý do tế nhị trong giao tế với bạn đồng minh Trung Hoa.